Năm Tân Tỵ (1821), vua Minh Mạng biết tiếng Phan Huy Chú, cho triệu ông vào kinh đô Huế, cử giữ chức Biên tu trường Quốc tử giám ở Huế. Năm này, ông dâng lên vua bộ sách Lịch triều hiến chương loại chí do ông biên soạn (khởi soạn khi còn đi học, đến năm 1809 thì cơ bản hoàn thành)[2], và được khen thưởng.

Năm Ất Dậu (1825), ông được sung làm Phó sứ sang Trung Quốc. Khi về, được làm Phủ thừa phủ Thừa Thiên, rồi thăng Hiệp Trấn Quảng Nam (1829). Ít lâu sau, ông bị giáng vì phạm lỗi, được điều động về Huế giữ chức Thị độc ở Viện hàn lâm.

Năm Tân Mão (1831), lại sung Phan Huy Chú làm Phó sứ sang nhà Thanh (Trung Quốc). Nhưng khi về nước, thì cả đoàn sứ bộ đều bị giáng chức (ông bị cách chức), vì tội "lộng quyền"[7].

Năm sau (Nhâm Thìn, 1832), cho ông làm phục dịch trong phái bộ sang Batavia (Giang Lưu Ba, Indonesia) để lập công chuộc tội.

Trở về (Giáp Ngọ, 1834), ông được bổ làm Tư vụ bộ Công. Sau đó, vì chán chốn quan trường, ông cáo bệnh xin về hưu ở làng Thanh Mai, thuộc huyện Tiên Phong (nay là xã Vạn Thắng, huyện Ba Vì, thành phố Hà Nội). Ở đây, ông làm nghề dạy học và soạn sách cho đến khi mất.